Scores Are Not Decisions: Cost-Aware Stopping for Tool Acquisition in LLM Agents
分数非决策:成本感知的LLM Agent工具获取停止
🧭 代价感知的Agent工具前缀截止学习 ★ 深度解读
Peking University · McGill University · Shanghai University of Finance and Economics · Tsinghua University
将工具获取形式化为代价感知的前缀停止,用后悔加权目标学习截止深度,以更少工具实现更高收益
📌 工作参考价值(4 点)
- 在工具调用前加一层代价感知截止策略:根据工具排序和成本动态决定前缀深度,可减少不必要的外部调用、上下文消耗和延迟,适用于搜索推荐中的知识检索、API 路由等环节。
- 后悔加权训练目标直接优化下游收益:错误按 payoff 差距加权,比先预测充分性再阈值截断更鲁棒,尤其在工具成本异质时(如不同数据源查询价格不同)。
- 特征设计需融合边际成本与剩余价值:除工具相关性分数外,引入边际成本、剩余候选集积分等特征,实现成本感知的停止决策。
- 轻量级解耦插件形式:CAM-DF 不修改上游排名器与下游 LLM,可快速接入现有 Agent 系统,适用于电商场景中动态选择商品信息源、实时调整工具预算。